Việc thiết kế M24 xuất phát từ việc các mẫu tăng M3/M5 có lớp giáp bọc và vũ khí quá yếu, mẫu tăng M7 tuy mạnh hơn nhưng lại có trình diễn rất tệ. Tháng 3 năm 1943, Bộ Quốc phòng Mỹ đặt ra vấn đề thiết kế một loại tăng hạng nhẹ mới, có thiết kế kĩ thuật và khung tăng giống như M5A1 nhưng thay thế pháo chính bằng pháo 75 mm.

Chỉ một tháng sau khi yêu cầu được đưa ra, General Motors đã giới thiệu mẫu thiết kế một loại tăng mới có tên kĩ thuật là T24 với nhiều chi tiết của M5A1 được giản lược nhằm giữ trọng lượng ở dưới mức 20 tấn. Mẫu thiết kế có lớp giáp mỏng, phần dày nhất ở phía trước chỉ dày có 25 mm (nghiêng 60 độ nhìn theo hướng xiên). Một pháo chính hạng nhẹ mới với cỡ nòng 75 mm, thiết kế lại từ pháo phụ phòng không trên máy bay B-25H Mitchell được trang bị cho xe. Loại pháo này có tính năng chiến đấu giống như loại pháo trang bị trên M3 nhưng có vách nòng pháo mỏng hơn và cơ cấu giảm chấn hơi khác, do đó giảm đi trọng lượng pháo cũng như tăng tốc độ bắn. Mẫu thiết kế mới cũng được trang bị bản xích tăng rộng hơn (16 inch) và hệ thống thanh xoắn giảm xóc. Mẫu có hình chiếu khá thấp và kíp lái tháp pháo gồm 3 người. T24 nhanh chóng được thông qua và đưa vào sản xuất với tên gọi chính thức M24.

Ngày 15 tháng 10 năm 1943, việc sản xuất M24 chính thức triển khai. Nó được sản xuất tại hai cơ sở khác nhau, bởi tập đoàn Cadillac (từ tháng 4 năm 1944) và bởi tập đoàn Massey-Harris (từ tháng 7 năm 1944). Vào thời điểm ngừng sản xuất (tháng 8 năm 1945), đã có khoảng 4.731 chiếc M24 được chuyển đi bằng đường hàng không. Một vài trong số chúng được chuyển cho Quân đội Anh. Người Anh đã đặt cho nó cái tên Chaffee, theo tên của Thiếu tướng Lục quân Hoa Kỳ Adna R. Chaffee, Jr., người được mệnh danh là "Cha đẻ của lực lượng thiết giáp Hoa Kỳ", vừa mới qua đời trước đó vài năm.